|
2023年9月8日我们缺乏对工具的定义，工具非常多样，可以分为：一类是确定性工具，像时钟、计算器、秒表等；一类基于 API 能力的工具，本质上是将一个功能直接函数化；一类是有专长的神经网络，或者说是 其他的Foundation Models，这也是未来 AI 要去使用的工具；还有一类是与物理世界进行交互，像机器人、传感器等。另外一种区分方...
2024年1月12日AI的关键,不仅仅是模型,还有优质的数据。 1 专有/私有数据资源,成为大模型应用新方向 大语言模型对数据非常贪婪。此前,MIT等研究人员分析,机器学习数据集可能会在2026年之前耗尽所有“高质量语言数据”,全球大模型可能会陷入训练数据荒。 因此,大模型开发者开始将目光转向专有数据资源。 例如,2023年12月13日,OpenA...
2024年7月5日一是确保AI的可信度。可信的AI涵盖了隐私保护、公平性和抗毒性等多个方面。张松教授特别提到了隐私问题，指出神经网络可能记住训练数据中的敏感信息，攻击者可以通过查询模型来提取这些信息。为了应对这一挑战，她的团队开发了一种名为“曝光削减”的方法来衡量模型的记忆程度，并提出了差分隐私模型作为潜在解决方案。二...
2024年1月3日数字数据是潜在的庞大数据资源,但因为表达形式较为简单,缺乏语言特征,无法应用于大模型训练,更多是利用关系数据库进行高效管理。因此,如何处理这一类的数据,提升高效利用,会成为未来在数据突破上的一个新命题,但胡良霖也坦言:“针对这个方向,目前还没有大模型企业有明显的成果或突破。”...
2024年12月4日而deepmind强化学习团队负责人david silver提到，要做到superhuman intelligence（超人类人工智能）以及发现更多新知，大语言模型尚且存在局限，仍有许多工作有待完成。在这里，他强调的是如何在一些专业领域实现superhuman intelligence，并不是具备更强的通用能力。因此，在当下这一时间节点，探讨agi的实现方向及其关键问题，...
2024年3月11日这对中国的人工智能发展显然是一个挑战。中国要研发更多更可靠和更实用的大模型AI，必须依赖中文语料，或建立中文语料库。然而，中国目前欠缺系统化、优质的中文语料，中文语料的不足会极大地限制中国AI的发展。但值得注意的是，这并非没有解决办法。比如，在中国公开出版的中文报纸、期刊等或许可以成为一种优势。公开...
2023年8月15日周伯文教授指出,这样的基础模型与 只聚焦于语言的ChatGPT 在模型、任务、能力、架构是需要很大提升的,对于年轻学者,这会是一个非常重大的研究机会。 周伯文发表演讲 需要注意的是,将大模型的能力迁移到产业应用中,将不可避免地遇到更低频、长尾的复杂场景和大规模协同需求。对此,京东探索研究院院长、京东科技智能服务...
2024年7月5日“大模型的不确定性和幻觉生成,并不总是缺陷,而是它的特点之一。” 周伯文认为,合理利用这种特点,通过人机协同有助于促进科研创新。大模型内部压缩着世界知识,同时具备不确定性生成的特性,极有可能帮助人类打破不同学科领域知识茧房,进行创新式探索。 通专融合后,AI可以提出科学假设,掌握科学知识、分析实验结果、预测...
